구글이 새롭게 선보인 상시 작동 AI 에이전트 'Gemini Spark(제미나이 스파크)'의 실사용 체험기를 다룬 글입니다. 개인 이메일과 캘린더 등의 접근 권한을 부여하자, 파티 계획을 자율적으로 완벽하게 수립하지만 연인 관계인 남자친구를 '친한 친구'로 분류하는 등 데이타 기반 판단의 엉뚱함을 보여줍니다. 월 100달러의 프리미엄 구독에서 제공되며 일부 기능(식당 예약 등)은 오류가 발생해 아직 실험적 단계임을 시사합니다.
미국 오하이오주 데이턴 등 여러 도시들이 '플록(Flock)' 자동 차량 번호판 인식 카메라를 즉시 철거하지 못하는 계약적, 기술적 한계로 인해 검은색 쓰레기봉투로 덮는 임시 방편을 선택했습니다. 이는 해당 카메라의 데이터가 의도치 않게 이민세관단속국(ICE) 등 연방 당국에 공유되면서 시민들의 거센 반발과 감시 철폐 요구가 일어났기 때문입니다. 이 사태는 공공 부문이 민간 감시 인프라를 사용할 때 발생할 수 있는 데이터 통제권 및 계약 해지의 어려움을 여실히 보여줍니다.
미국의 인기 온라인 심리치료 플랫폼 '헤드웨이(Headway)'가 환자와 의료진을 대상으로 신원 확인용 안면 인식 스캔을 의무화하여 논란이 일고 있습니다. 생체 정보 제공을 거부할 경우 플랫폼 이용이 불가능해져 사실상 강제적인 선택이며, 이는 환자의 치료 연속성을 위협하는 심각한 개인정보 침해 우려를 낳고 있습니다.
한국 독자를 위해 요약한 이번 주 AI·기술 뉴스입니다. 고등학교를 휩쓴 딥페이크 사태와 미흡한 대응, 스쿨버스에 AI 감시 카메라를 설치하고 경찰 접근 권한을 제공하려는 'BusPatrol'의 계획, 그리고 감시 기업 'Flock' 퇴출 결정에 반발한 지역 의회의원의 논란을 다룹니다. 윤리적 논란과 감시 기술의 확장이라는 중요한 주제를 다루고 있어 주목할 필요가 있습니다.
미국 전역의 수만 대 스쿨버스에 AI 카메라를 설치한 기업 BusPatrol이 버스를 이동형 감시 차량으로 바꾸어 모든 차량의 번호판과 위치를 스캔하고 이를 경찰에 제공하려는 계획이 확인되었습니다. 원래 불법 추월 차량 단속 목적이었으나 영장 없이 광범위한 일반 수사 및 이민단속(ICE) 등에 악용될 수 있어 시민사회의 강력한 우려와 함께 대규모 감시 사회로의 전환을 우려하는 목소리가 나오고 있습니다.
텍사스주 소도시 반데라가 시민들의 거센 반대로 AI 번호판 인식 감시카메라 계약을 전면 해지했습니다. 이에 반대표를 던진 제프 플라워스 의원은 주민들을 향해 위선자라고 비판하며, 사생활 보호를 명분으로 스마트폰, 인터넷, 카메라 등 기술 사용을 전면 금지하는 소위 '1880년대로 회귀'하는 법안을 발의하겠다고 선언했습니다. 이 사건은 치안보다 감시를 우려하는 시민들과 안보를 강조하는 정치권 간의 갈등, 그리고 AI 감시 기술의 확산에 따른 사회적 파장을 보여줍니다.
스위스 클라우드 기업 Infomaniak이 사용자 데이터를 영구적으로 보호하기 위해 과반수 의결권을 스위스 공익 재단으로 이전했습니다. 이를 통해 외부 인수합병(M&A)이나 투자자의 개입을 원천 차단하고, 사명과 독립성을 법적으로 영구 보장하는 독특한 지배구조를 확립했습니다.
워싱턴 대학교 연구진이 교사의 1인칭 시점 영상을 AI 훈련 데이터로 활용하려다 논란이 발생했습니다. 명시적 동의를 구하는 옵트인 방식이 아닌, 거부해야 수집이 중단되는 옵트아웃(Opt-out) 방식을 채택하여 개인정보 침해 우려를 낳았습니다. 결국 학부모들의 강한 반발에 부딪혀 해당 연구는 전면 보류되었습니다.
OpenAI가 금융 플랫폼 Plaid와 연동하여 ChatGPT 사용자의 은행 계좌를 연결할 수 있는 새로운 기능을 발표했습니다. 이를 통해 사용자는 맞춤형 재무 조언을 받을 수 있지만, OpenAI가 수집하는 상세한 재무 데이터의 상업적 활용 및 보안 문제에 대한 명확한 보호 장치가 부족하다는 우려가 제기되고 있습니다.
미국의 대형 병원 네트워크인 메이요 클리닉이 응급실 등에서 환자와 간호사의 대화를 AI 기반 '주변 소리 수집(Ambient Listening)' 기술로 녹음해 전자 건강 기록을 작성하고 있습니다. 이 과정이 환자의 사전 동의(opt-in)가 아닌 사후 거부(opt-out) 방식으로 이루어져 심각한 동의권 및 프라이버시 침해 논란이 제기되었습니다. 특히 응급실이라는 특수성과 최근 AI가 배경 소음이나 마스크 착용 시 인간보다 훨씬 부정확한 기록을 남긴다는 연구 결과가 더해져 윤리적 우려가 커지고 있습니다.
구글 제미나이(Gemini) 등 생성형 AI 챗봇이 학습 데이터에 포함된 개인정보(PII)를 바탕으로 일반인의 실제 전화번호와 연락처를 무단으로 노출하는 사례가 잇따르고 있습니다. 개인정보 삭제 서비스 기업에 따르면 AI 관련 개인정보 침해 문의가 지난 7개월간 400% 급증했으며, 명확한 해결책이 부재해 피해자들의 불안감이 커지고 있습니다.
메타가 자사 AI 어시스턴트에 대화 기록이 서버에 저장되지 않는 '시크릿 채팅(Incognito Chat)' 모드를 도입했습니다. 신뢰 실행 환경(TEE)을 활용해 메타조차 사용자 데이터에 접근할 수 없도록 설계되어, 구글이나 오픈AI 등 타 경쟁사가 안고 있는 데이터 유출 및 수사 기관 제출 논란에서 한발 앞서나가는 기술적·정책적 차별화를 시도한 것이 핵심입니다.
구글이 새로운 계정 생성 시 기존 SMS 인증을 QR 코드 스캔으로 대체했습니다. 공식적인 이유는 보안 강화지만, 사실상 사용자의 익명성을 완전히 박탈하는 결과를 초래했습니다. 이제 개인 정보를 철저히 숨기고 구글 계정을 만드는 것은 불가능해졌습니다.
최근 소프트웨어 개발에서 단순히 클라우드 기반 AI API를 호출하는 방식은 앱의 안정성을 떨어뜨리고 개인정보 침해 우려를 키웁니다. 이에 개발자는 성능이 충분한 로컬 기기의 내장 AI 모델을 활용해 온디바이스에서 직접 기능을 수행해야 한다고 강조합니다. Apple 생태계를 예시로 든 이 글은, 구현 가능한 경우 로컬 AI를 우선 채택하는 것이 개발자와 사용자 모두에게 현명한 접근임을 시사합니다.
구글 크롬의 내장 AI 기능을 활성화하면 기기 내 로컬 환경에서 구동되는 '제미나이 나노(Gemini Nano)' 모델 파일(약 4GB)이 사용자 동의나 명확한 안내 없이 자동으로 다운로드됩니다. 저장 공간이 부족한 사용자는 크롬 설정에서 '기기 내 AI' 옵션을 꺼야만 해당 파일을 삭제하고 공간을 확보할 수 있습니다.
수천만 명의 학생이 사용하는 교육 플랫폼 캔버스(Canvas)의 모회사가 랜섬웨어 그룹 해킹을 당해 2억 7,500만 명 이상의 개인정보와 수십억 건의 메시지가 유출되었습니다. 이번 사태는 교육 및 개인 데이터를 단일 클라우드 플랫폼에 집중시켰을 때 발생할 수 있는 치명적인 막대한 위험성을 여실히 보여줍니다.
OpenAI는 사용자가 ChatGPT와의 대화에서 자해 충동을 보일 경우, 사전에 지정된 가족이나 친구에게 자동으로 알림을 보내는 '신뢰할 수 있는 연락처(Trusted Contact)' 기능을 새롭게 출시했습니다. 자동화 시스템과 인간 검토자가 1시간 이내에 위험 상황을 판단하여 신속하게 대처할 수 있도록 설계되었습니다. 이는 최근 챗봇과의 대화 후 자살한 사용자의 가족들이 제기한 소송에 대응하고 사용자의 생명을 보호하기 위한 안전 장치로 평가됩니다.
구글 크롬의 최신 업데이트(v148)에서 기기 내 AI(On-device AI)가 사용자 데이터를 구글 서버로 전송하지 않는다는 명시적인 프라이버시 보장 문구가 삭제되었습니다. 이는 사용자의 기기를 활용해 AI를 구동하는 동시에 자원을 절약하고 데이터를 수집하려는 구글의 의도로 해석됩니다. 해당 사안을 계기로 많은 사용자들이 파이어폭스나 브레이브 등 대체 브라우저로 이동을 고려하는 등 개인정보 보호에 대한 우려가 커지고 있습니다.
캐나다 통신사 텔러스(Telus)가 해외 콜센터 상담원의 억양을 실시간으로 바꾸는 AI 기술을 도입해 논란이 일고 있습니다. 이 기술은 의사소통의 불편함을 줄인다는 목적이지만, 노동단체는 고객을 기만하는 행위라며 공개 의무화를 촉구하고 있습니다. 실무자들은 실시간 음성 변환 파이프라인 도입 시 발생할 수 있는 레이턴시, 자연스러움, 그리고 고객 동의 및 개인정보 보호와 같은 규제 이슈를 함께 고려해야 합니다.
구글 크롬이 사용자의 동의나 명시적 알림 없이 최신 버전에서 기기 내 AI 기능을 위해 4GB 크기의 'Gemini Nano' 모델(weights.bin)을 자동으로 다운로드하고 설치하고 있습니다. 사용자가 이를 수동으로 삭제해도 브라우저 실행 시 자동으로 재다운로드되며, 이는 GDPR 및 ePrivacy 지침 위반과 전 지구적인 탄소 배출을 유발하는 심각한 환경적 문제를 야기할 수 있다는 전문가의 비판을 받고 있습니다.
이번 주 주요 IT·보안 뉴스를 요약합니다. 디즈니랜드가 입장 게이트에 안면인식 기술을 도입해 개인정보 우려를 낳고 있으며, 미 국가안보국(NSA)은 앤스로픽(Anthropic)의 사이버 보안 AI 도구를 테스트하며 소프트웨어 취약점을 탐지하는 데 활용하고 있습니다. 또한 FIDO 얼라이언스는 AI 에이전트 거래 보호를 위한 기술 가이드라인을 발표했고, 유럽 연예인의 대규모 스파이웨어 해킹 사건 및 디즈니랜드의 생체 인식 확산 등 개인정보 침해 및 보안 위협 관련 이슈가 대두되고 있습니다.
웹 브라우저 내에서 작동하며 개인정보를 외부로 전송하지 않고 AI가 PDF 양식을 채우고 편집할 수 있는 'SimplePDF Copilot'이 공개되었습니다. 사용자가 원하는 LLM API 키(BYOK)를 연동하거나 로컬 환경에서 실행할 수 있어 의료 등 민감한 문서를 다루는 환경에서 활용도가 높습니다. LLM의 '툴 콜링(Tool Calling)' 기능을 브라우저 단에서 처리하는 것이 핵심 기술적 특징입니다.
OpenAI가 무료 ChatGPT 사용자를 대상으로 마케팅 쿠키 및 광고 추적을 기본적으로 활성화했습니다. 이에 따라 쿠키 ID와 이메일 주소 등의 제한된 데이터가 타사 광고 파트너와 공유됩니다. 전체 사용자의 90% 이상이 차지하는 무료 사용자의 높은 운영 비용을 감당하고 유료 플랜으로 유도하기 위한 수익화 조치로 풀이됩니다.
실제 여성의 SNS 사진을 무단으로 크롤링하여 AI로 딥페이크 성인물을 제작하고, 이를 활용해 수익을 창출한 남성들이 소송을 당했습니다. 이들은 일반인 여성의 신원을 알아내기 어렵게 속이는 방법과 옷을 벗기는 AI 사용법 등을 담은 강의를 판매하며 수천 명의 구독자를 끌어모았습니다. 이 사건은 딥페이크 기술이 악용될 때 개인의 초상권과 디지털 안전에 얼마나 심각한 위협이 될 수 있는지 보여주는 중요한 사례입니다.
애플이 아이폰에서 앱을 삭제해도 알림 데이터베이스에 메시지가 그대로 남아 FBI가 이를 디지털 포렌식으로 추출할 수 있었던 버그를 수정했습니다. 이번 조치는 언론 보도를 통해 FBI가 삭제된 시그널(Signal) 메시지를 수사에 활용한 사실이 알려진 직후 내려졌습니다. 새로운 보안 패치를 설치하면 삭제된 앱의 알림이 더 이상 저장되지 않으며 기존에 보관되었던 데이터도 소급 삭제됩니다.
해커뉴스에 공개된 분석 자료에 따르면, ChatGPT가 대화 중에 광고를 노출하고 사용자의 클릭과 상호작용을 매우 정밀하게 추적합니다. 대화 문맥에 맞춰 타겟팅된 광고가 SSE 스트림을 통해 전달되며, 클릭 시 4개의 Fernet 암호화 토큰을 통해 서버에서 조작되지 않은 유효한 클릭인지 검증하고 앞으로의 이벤트까지 추적합니다. 이는 AI 플랫폼이 본격적인 프리미엄 광고 네트워크로 발돋움하고 있음을 시사하며, 광고 효과 측정 및 개인정보 추적에 대한 명확한 기술적 이해가 필요합니다.
이 글은 최근 주목받는 '에이전트(Agent) AI' 기술의 근본적인 맹점을 지적합니다. 과거의 컴퓨팅 환경은 기기가 철저히 사용자의 통제 아래 로컬에서 작동했지만, 현대의 인터넷 연결 기기와 AI 에이전트는 그렇지 않습니다. 기기의 소프트웨어부터 하드웨어, 네트워크 계층까지 제작자의 이해관계가 깊숙이 내재화되어 있어, 사용자는 '나를 위한 AI'라는 환상 속에서 개인정보를 상업적으로 착취당하고 통제권을 상실할 위험에 처해 있음을 경고합니다.
최근 보안 취약점 발견에 특화된 안스로픽의 미공개 AI 모델 '미토스(Mythos)'가 제한된 사람만 접근할 수 있도록 통제되고 있었으나, 디스코드 사용자들이 관련 데이터 유출 정보를 바탕으로 모델의 위치를 추론해 무단 접속하는 사건이 발생했습니다. 이와 함께 통신망의 SS7 취약점을 악용해 민간 감시 회사들이 실제 스파이 활동을 벌이고 있다는 사실도 함께 보도되었습니다.
챗GPT, 클로드, 제미나이 등 AI 챗봇이 예산 편성 등 개인 재무 관리에 유용하게 쓰이고 있지만, 여전히 환각 현상, 사용자 편향 맹목적 수용, 민감 정보 요구 등의 치명적인 한계가 존재합니다. AI는 공인된 재무 전문가를 대체할 수 없으며 재무 조언을 의존할 때는 반드시 이러한 한계를 인지하고 회의적인 접근이 필요합니다.
메타가 미국 직원들의 컴퓨터에 마우스 움직임, 클릭, 키 입력을 기록하는 감시 소프트웨어를 설치했습니다. 이는 드롭다운 메뉴나 단축키 사용 등 업무를 자동으로 수행하는 AI 에이전트를 개발하기 위한 목적입니다. 기업 내 AI 도입과 노동 감시의 결합으로 직원 프라이버시 침해 우려와 유럽 GDPR 위반 가능성이 제기되며 중요한 이슈입니다.